Agent in a Bottle: Can LLM Agents Turn Their Capabilities Into Cheap, Scalable Artifacts?
瓶中智能体：LLM智能体能否将自身能力转为廉价可扩展制品
🧭 Agent 自动化低成本制品生成与评估 ★ 深度解读
University of Tübingen · ELLIS Institute Tübingen, Max Planck Institute for Intelligent Systems, Tübingen AI Center · École Polytechnique, Institut Polytechnique de Paris, CNRS · KAIST AI
用BOTTLED基准评估LLM智能体在固定预算下把通用能力封装为任务专用廉价制品的能力，发现零样本强不必然装瓶强
📌 工作参考价值（4 点）
- 大规模重复性电商文本任务（商品属性抽取 MAVE、query-product 相关性 ESCI、内容审核）不要逐条调用大模型：先用固定蒸馏脚本做基线——用便宜模型标注到预算耗尽，再训练 Qwen3-0.6B / SmolLM2-360M。论文里这个 naive 基线击败了 31/60 个 agent 装瓶 run，落地时应当优先验证。
- 选型别只看零样本指标：GPT 5.6 Terra 与 Sonnet 5 在 MAVE 零样本 F1 都约 0.44，但装瓶后 F1 分别为 0.405 和 0.154。实际业务中若要让 LLM agent 自己生成廉价制品，必须在同等 token/时间预算下重新评估模型，而不是沿用零样本/少样本 leaderboard。
- 工程上必须设置硬性预算、强制交付 out.txt 并监控预算：21/60 run 耗尽 token，8 个没有任何输出；Gemini Flash-Lite 甚至把数百万条输入误判为 49 条。生产系统需要 fallback、预算跟踪工具和超时熔断，否则 agent 会浪费资源无产出。
- 对于超大规模重复推理，自蒸馏小模型/规则程序可以接近专用廉价模型 Jev：Opus 5 在 ESCI 上恢复 Jev 94% 的 macro-F1，成本约 1/4；在 RAID 上 Gemini 3.1 Pro 达到 Jev 97% AUROC，成本约 2%。可优先尝试 bottling 而不是引入另一套专用推理模型。